패러다임의 전환
우리는 다음에서 전환하고 있습니다: "수단과 방법을 가리지 않는 성능 최우선" 이라는 사고방식에서 책임 있는 AI(RAI) 프레임워크로 나아가고 있습니다. 이 새로운 시대에는 기술적 성공이 윤리적 견고성과 안전 가드레일에 엄격히 좌우됩니다.
1. 제약 최적화
역사적으로 목표는 손실 함수 $L(\theta)$를 최소화하는 것이었습니다. 새로운 패러다임은 AI를 제약 최적화 문제로 다룹니다: $$\max P \text{ subject to } C_1, C_2, \dots, C_n$$ 여기서 $C$는 타협할 수 없는 안전 및 공정성 임계값을 나타냅니다.
2. "인 비트로"와 "인 비보" 간의 격차
모델은 종종 정적 벤치마크(인 비트로)에서 최첨단(SOTA) 결과를 달성하지만, 실제 사회기술적 환경(인 비보)에서는 예측하지 못한 상호작용으로 인해 치명적인 실패를 보입니다.
왼쪽: 높은 정확도/속도, 안전성/투명성은 전무. 오른쪽: 안전성, 공정성, 해석 가능성을 나타내는 균형 잡힌 육각형.
예시: 고빈도 매매
성능만을 추구하는 모델은 ROI를 극대화하면 성공한 것입니다. 그러나 RAI 모델은 높은 ROI를 달성했더라도 다음과 같은 상황을 유발하면 실패한 것입니다: "플래시 크래시" 시장 안정성 보호 장치의 부재로 인한.